Xã Cổ Lũng nằm ở phía tây bắc của huyện Bá Thước, thuộc tả ngạn sông Mã.

• Phía đông giáp xã Ngổ Luông, huyện Tân Lạc, xã Tự Do, huyện Lạc Sơn, tỉnh Hòa Bình và xã Hạ Trung, huyện Bá Thước, tỉnh Thanh Hóa.
• Phía nam giáp các xã Hạ Trung và Ban Công, huyện Bá Thước, tỉnh Thanh Hóa.
• Phía tây giáp xã Lũng Niêm, huyện Bá Thước, tỉnh Thanh Hóa.
• Phía bắc giáp xã Lũng Cao, huyện Bá Thước, tỉnh Thanh Hóa và xã Ngổ Luông, huyện Tân Lạc, tỉnh Hòa Bình.